Amazon Bedrock Guardrailsの新しいセーフガードとして、自動推論チェック(Automated Reasoning checks)が発表されました #AWSreInvent

こんにちは。まるとです。

AWS re:Invent 2024 CEO keynote でAmazon Bedrock の新しいガードレールとして自動推論チェック（Automated Reasoning checks）が発表されました。

https://aws.amazon.com/jp/about-aws/whats-new/2024/12/amazon-bedrock-guardrails-automated-reasoning-checks-preview/

https://aws.amazon.com/jp/blogs/aws/prevent-factual-errors-from-llm-hallucinations-with-mathematically-sound-automated-reasoning-checks-preview/

先にまとめ

• 機能をプレビューには AWSへのお問い合わせが必要
• 生成された回答/応答の精度を検証し、ハルシネーションを防ぐことができます
• バージニア北部（us-east-1）、またはオレゴン（us-west-2）リージョンでプレビューが利用可能
• 検証ブログは後日公開します

アップデートにより嬉しいこと

従来では、Amazon Bedrock ガードレールで不適切なコンテンツや個人情報などのセンシティブなコンテンツをフィルタリングすることができました。
今回のアップデートでは、出力された回答が論理的に正しいのか、自動的に検証が行えるようになり誤った回答などが出力されるのを防ぐことができるようになります。

やってみよう！...と言いたいところですが

では早速検証しよう！と言いたいところですが、機能のプレビューにはAWS アカウントチームへのお問い合わせが必要とのことでした。

Contact your AWS account team to request access to Automated Reasoning checks in Amazon Bedrock Guardrails in US East (N. Virginia) and US West (Oregon) AWS regions. To learn more, visit Amazon Bedrock Guardrails and read the News blog.

そのため、本ブログでは簡単なまとめとし後日、検証が可能になり次第検証ブログを公開いたします。

まとめ

今まではプロンプトをうまく組み込んだり、生成された回答を別途自身で検証する必要がありましたが、自動で検証することができるようになり誤った出力を防ぐことができるようになりました。

これにより、生成AIの利用にはハルシネーションなどが発生するから、検証に時間がかかる...というケースでも利用しやすくなるのではないでしょうか。
性能については後日検証となりますが、生成AIの利用や導入のハードルが下がる期待できるアップデートです。

簡単なまとめではございますが、本記事がどなたかの助けになれば幸いです。